跳到主要内容

Java JVM学习-垃圾回收相关算法

什么是 GC?

关于垃圾收集有三个经典问题:

  • 哪些内存需要回收?
  • 什么时候回收?
  • 如何回收?

什么是垃圾(Garbage)呢?

  • 垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾。

如果不及时对内存中的垃圾进行清理,那么,这些垃圾对象所占的内存空间会一直保留到应用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出。

对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完,因为不断地分配内存空间而不进行回收,就好像不停地生产生活垃圾而从来不打扫一样。

除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端,以便JVM将整理出的内存分配给新的对象。

随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没有 GC就不能保证应用程序的正常进行。而经常造成 STW的 GC又跟不上实际的需求,所以才会不断地尝试对 GC进行优化。

补充:早期的垃圾回收

在早期的C/C+ +时代,垃圾回收基本上是手工进行的。开发人员可以使用 new 关键字进行内存申请,并使用 delete 关键字进行内存释放。

比如以下代码:

MibBridge *pBridge = new cmBaseGroupBridge();
// 如果注册失败,使用 Delete 释放该对象所占内存区域
if (pBridge ->Register(kDestroy) != NO_ERROR)
delete pBridge;

这种方式可以灵活控制内存释放的时间,但是会给开发人员带来频繁申请和释放内存的管理负担。倘若有一处内存区间由于程序员编码的问题忘记被回收,那么就会产生内存泄漏,垃圾对象永远无法被清除,随着系统运行时间的不断增长,垃圾对象所耗内存可能持续上升,直到出现内存溢出并造成应用程序崩溃。

垃圾回收哪些区域?

垃圾回收器可以对年轻代回收,也可以对老年代回收,甚至是全堆和方法区的回收。其中,Java堆是垃圾收集器的工作重点。 从次数上讲:

  • 频繁收集 Young 区
  • 较少收集 Old 区
  • 基本不动 Perm 区

垃圾标记阶段:对象存活判断

在堆里存放着几乎所有的 Java 对象实例,在 GC 执行垃圾回收之前,首先需要区分出内存中哪些是存活对象,哪些是已经死亡的对象。只有被标记为己经死亡的对象,GC 才会在执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段。

那么在 JVM 中究竟是如何标记一个死亡对象呢?

简单来说,当一个对象已经不再被任何的存活对象继续引用时,就可以宣判为已经死亡。 判断对象存活一般有两种方式:引用计数算法可达性分析算法

引用计数算法

引用计数算法(Reference Counting)比较简单,对每个对象保存一个整型的引用计数器属性。用于记录对象被引用的情况。

对于一个对象A,只要有任何一个对象引用了 A,则 A 的引用计数器就加1;当引用失效时,引用计数器就减 1。只要对象 A 的引用计数器的值为 0,即表示对象 A 不可能再被使用,可进行回收。

优点:实现简单,垃圾对象便于辨识;判定效率高,回收没有延迟性。 缺点:

  • 它需要单独的字段存储计数器,这样的做法增加了存储空间的开销。
  • 每次赋值都需要更新计数器,伴随着加法和减法操作,这增加了时间开销。
  • 引用计数器有一个严重的问题,即 无法处理循环引用 的情况。这是一条致命缺陷,导致在 Java 的垃圾回收器中没有使用这类算法。

虽说 JVM 没有使用,但是早期的 IE 就是使用的引用计数算法(所以导致内存泄漏,后面又换了)

标记阶段:根搜索算法(可达性分析)

根搜索算法又称为:可达性分析、追踪性垃圾收集

相对于引用计数算法而言,可达性分析算法不仅同样具备实现简单和执行高效等特点,更重要的是该算法可以有效地解决在引用计数算法中循环引用的问题,防止内存泄漏的发生。

相较于引用计数算法,这里的可达性分析就是 Java、C# 选择的。这种类型的垃圾收集通常也叫作追踪性垃圾收集(Tracing Garbage Collection)

这里举个代码的例子:

public class Temp {
// 这个成员属性唯一的作用就是占用一点内存
private byte[] bigSize = new byte[5 * 1024 * 1024]; //5MB
Object reference = null;

public static void main(String[] args) {
Temp obj1 = new Temp();
Temp obj2 = new Temp();

obj1.reference = obj2;
obj2.reference = obj1;

obj1 = null;
obj2 = null;
// 显示的执行垃圾回收行为
// 这里发生GC,观察 obj1 和 obj2 能否被回收
System.gc();
}
}

再在 VM 启动加上打印 GC 的参数

-XX:+PrintGCDetails

可以发现,即使循环依赖也不会导致无法 GC

根搜索算法基本思路

所谓 "GC Roots" 根集合就是一组必须活跃的引用。其基本思路:

  • 可达性分析算法是以根对象集合(GC Roots)为起始点,按照从上至下的方式 搜索被根对象集合所连接的目标对象是否可达。
  • 使用可达性分析算法后,内存中的存活对象都会被根对象集合直接或间接连接着,搜索所走过的路径称为引用链(Reference Chain)
  • 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象己经死亡,可以标记为垃圾对象。
  • 在可达性分析算法中,只有能够被根对象集合直接或者间接连接的对象才是存活对象。

GC Rootis 选举导致的 STW

如果要使用可达性分析算法来判断内存是否可回收,那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无法保证。

这点也是导致 GC 进行时必须 “StopTheWorld" 的一个重要原因。即使是号称(几乎)不会发生停顿的 CMS 收集器中,枚举根节点时也是必须要停顿的。

使用 MAT 查看 GC Roots

MAT 是什么?

MAT(Memory Analyzer Tool),一个基于 Eclipse 的内存分析工具,是一个快速、功能丰富的 JAVA heap分析工具,它可以帮助我们查找内存泄漏和减少内存消耗。使用内存分析工具从众多的对象中进行分析,快速的计算出在内存中对象的占用大小,看看是谁阻止了垃圾收集器的回收工作,并可以通过报表直观的查看到可能造成这种结果的对象。

MAT 下载地址 Memory Analyzer 1.11.0 Release

先编写一个用于测试的代码:

public class GCRootsTest {
public static void main(String[] args) throws InterruptedException {
List<Object> numList = new ArrayList<>();
Date birth = new Date();

for (int i = 0; i < 100; i++) {
numList.add(String.valueOf(i));
Thread.sleep(10);
}

System.out.println("数据添加完毕,请操作:");
new Scanner(System.in).next();
numList = null; // 这里让指针制空
birth = null; // 这里让指针制空

System.out.println("numList、birth已置空,请操作:");
new Scanner(System.in).next();

System.out.println("结束");
}
}

运行起来后,首先打开 JVisualVM 把 heap 那部分 dump 下来(生成快照)

捕获的 heap dump文件是一个临时文件,关闭 JVisualVM 后自动删除,若要保留,需要右键将其另存为文件。

然后随便输入个东西,让它停止阻塞,进入指针制空的时候,再次生成快照,最后就可以关掉它了

现在就可以使用 MAT 工具对这两个 heap 快照进行分析

然后点击进行 GC Roots 分析

然后可以看到这些都是 GC Root

补充:GC Rootis 可使用的元素 ⛔

这里不用掌握,了解就好~

在 Java 语言中,GC Rootis 包括以下几类元素:

1、虚拟机栈中引用的对象,比如各个线程被调用的方法中使用到的参数、局部变量等。 2、本地方法栈内 JNI(通常说的本地方法)引用的对象 3、方法区中类静态属性引用的对象,比如 Java 类的引用类型静态变量 4、方法区中常量引用的对象,比如字符串常量池(String Table)里的引用 5、所有被同步锁 synchronized 持有的对象 6、Java 虛拟机内部的引用。比如基本数据类型对应的 Class 对象,一些常驻的异常对象(如:NullPointerException、OutOfMemoryError),系统类加载器。反映 Java 虚拟机内部情况的 JMXBean、JVMTI 中注册的回调、本地代码缓存等。

除了这些固定的 GC Roots集合以外,根据用户所选用的垃圾收集器以及当前回收的内存区域不同,还可以有其他对象 “临时性” 地加入,共同构成完整 GC Roots 集合。比如:分代收集和局部回收(Partial GC)

如果只针对 Java 堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时候就需要一并将关联的区域对象也加入GC Roots集合中去考虑,才能保证可达性分析的准确性。

小技巧:由于 Root 采用栈方式存放变量和指针,所以如果一个指针,它保存了堆内存里面的对象,但是自己又不存放在堆内存里面,那它就是一个 Root。

清除阶段:清除算法

当成功区分出内存中存活对象和死亡对象后,GC 接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配内存。

目前在 JVM 中比较常见的三种垃圾收集算法是:

  • 标记-清除算法(Mark-Sweep)
  • 复制算法(Copying)
  • 标记-压缩算法(Mark-Compact)

清除阶段:标记-清除算法

标记-清除算法(Mark-Sweep)是一种非常基础和常见的垃圾收集算法,该算法被 J.McCarthy等人在 1960年提出并并应用于 Lisp语言。

执行过程

当堆中的有效内存空间(available memory) 被耗尽的时候,就会停止整个程序(也被称为stop the world),然后进行两项工作,第一项则是标记,第二项则是清除。

标记:Collector从引用根节点开始遍历,标记所有被引用的对象,一般是在对象的 Header中记录为可达对象。 清除: Collector对堆 内存从头到尾进行线性的遍历,如果发现某个对象在其Header中没有标记为可达对象,则将其回收。

标记-清除算法的缺点

  • 效率不算高
  • 在进行 GC的时候,需要停止整个应用程序,导致用户体验差
  • 这种方式清理出来的空闲内存是不连续的,产生内存碎片,需要维护一个空闲列表

注意:这里所谓的清除并不是真的置空,而是把需要清除的对象地址保存在空闲的地址列表里。下次有新对象需要加载时,判断垃圾的位置空间是否够,如果够,就存放。

清除阶段:复制算法

为了解决上面 标记-清除算法 在垃圾收集效率方面的缺陷,提出了这个 复制算法

执行过程

核心思想:将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时将正在使用的内存中的存活对象复制到未被使用的内存块中,之后清除正在使用的内存块中的所有对象,交换两个内存的角色,最后完成垃圾回收。

堆中 S0和 S1使用的就是复制算法

复制算法的优点

  • 没有标记和清除过程,实现简单,运行高效
  • 复制过去以后保证空间的连续性,不会出现“碎片”问题。

复制算法的缺点

  • 此算法的缺点也是很明显的,就是需要两倍的内存空间。
  • 对于 G1 这种分拆成为大量 region 的 GC,复制而不是移动,意味着 GC 需要维护 region 之间对象引用关系(就是需要修改它们的引用地址),不管是内存占用或者时间开销也不小。

但是注意:如果系统中的对象很多,会导致复制算法不是很理想,因为复制算法通常需要复制的存活对象数量并不会太大,或者说非常低才行。(那上图为例,如果格子大部分都是绿的,全部复制过去,这样的导致效率很低)

应用场景

在新生代,对常规应用的垃圾回收,一次通常可以回收 70%-99% 的内存空间,回收性价比很高。所以现在的商业虚拟机都是用这种收集算法回收新生代。

清除阶段:标记-压缩算法

复制算法的高效性是建立在存活对象少、垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象较多,复制的成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其他的算法。

标记-清除算法的确可以应用在老年代中,但是该算法不仅执行效率低下,而且在执行完内存回收后还会产生内存碎片,所以 JVM的设计者需要在此基础之上进行改进。标记-压缩(Mark-Compact) 算法由此诞生

1970年前后,G.L.Steele、C.J.Chene 和 D.S.Wise 等研究者发布标记-压缩算法。在许多现代的垃圾收集器中,人们都使用了标记-压缩算法或其改进版本。

执行过程

  • 第一阶段和 标记-清除算法 一样,从根节点开始标记所有被引用对象.
  • 第二阶段将所有的存活对象压缩到内存的一端,按顺序排放。
  • 之后,清理边界外所有的空间。

标记-压缩算法的最终效果等同于 标记-清除算法 执行完成后,再进行一次内存碎片整理,因此,也可以把它称为 标记-清除-压缩(Mark-Sweep-Compact)算法。

二者的本质差异在于 标记-清除算法 是一种非移动式的回收算法,标记-压缩算法 是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。

可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM 只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少了许多开销。

标记-压缩算法的优点

  • 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM 只需要持有一个内存的起始地址即可。
  • 消除了复制算法当中,内存减半的高额代价。

标记-压缩算法的缺点

  • 从效率上来说,标记-整理算法要低于复制算法。
  • 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址,移动过程中,需要全程暂停用户应用程序。即: STW

上述三种算法总结

  • 效率上来说,复制算法是当之无愧的老大,但是却浪费了太多内存。
  • 而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说更平滑一些,但是效率上不尽如人意,它比复制算法多了一个标记的阶段,比标记-清除多了一个整理内存的阶段。
\ Mark-SweepMark-CompactCopying
速度中等最慢最快
空间开销少(但会堆积碎片)少(不堆积碎片)通常需要活对象的2倍大小(不堆积碎片)
移动对象

分代收集算法(思想)

前面所有这些算法中,并没有一种算法可以完全替代其他算法,它们都具有自己独特的优势和特点。分代收集算法应运而生(老年代、年轻代)。

分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。因此,不同生命周期的对象可以采取不同的收集方式,以便提高回收效率 一般是把 Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的回收算法,以提高垃圾回收的效率。

在 Java程序运行的过程中,会产生大量的对象,其中有些对象是与业务信息相关,比如 Http请求中的 Session对象、线程、Socket连接,这类对象跟业务直接挂钩,因此生命周期比较长。

但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期会比较短,比如 String对象,由于其不变类的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收。

目前几乎所有的 GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的。在 HotSpot中,基于分代的概念,GC 所使用的内存回收算法必须结合年轻代和老年代各自的特点。

年轻代(Young Gen)

年轻代特点:区域相对老年代较小,对象生命周期短、存活率低,回收频繁。

这种情况 复制算法 的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于年轻代的回收。

而复制算法内存利用率不高的问题,通过 hotspot中的两个 survivor的设计得到缓解。

老年代(Tenured Gen)

老年代特点:区域较大,对象生命周期长、存活率高,回收不及年轻代频繁。

这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般是由 标记-清除 或者是 标记-清除 与 标记-整理 的混合实现。

  • Mark 阶段的开销与存活对象的数量成正比。
  • Sweep 阶段的开销与所管理区域的大小成正相关。
  • Compact 阶段的开销与存活对象的数据成正比。

以 HotSpot 中的 CMS 回收器为例,CMS 是基于 Mark-Sweep 实现的,对于对象的回收效率很高。而对于碎片问题,CMS 采用基于 Mark-Compact 算法的 Serial Old 回收器作为补偿措施:

  • 当内存回收不佳时(碎片导致的 Concurrent Mode Failure),将采用 Serial Old 执行 Full GC 以达到对老年代内存的整理。

分代的思想被现有的虚拟机广泛使用,几乎所有的垃圾回收器都区分新生代和老年代。

增量收集算法

上述现有的算法,在垃圾回收过程中,应用软件将处于一种 Stop the World 的状态。在 Stop the World 状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting) 算法的诞生。

基本思想

如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成。

有点像 Redis 的 Hash 扩容过程

总的来说,增量收集算法的基础仍是传统的 标记-清除 和 复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。

增量收集算法的缺点

使用这种方式,由于在垃圾回收过程中,间断性地还执行了应用程序代码,所以能减少系统的停顿时间。

但是,因为线程切换和上下文转换的消耗,会使得垃圾回收的总体成本上升,造成系统吞吐量的下降。

分区算法

一般来说,在相同条件下,堆空间越大,一次 GC 时所需要的时间就越长,有关 GC 产生的停顿也越长。为了更好地控制 GC 产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次 GC 所产生的停顿。

分代算法将按照对象的生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间。每一个小区间都独立使用,独立回收。这种算法的好处是可以控制一次回收多少个小区间。